HypRQ-VAE: Hyperbolic Item Indexing for Long-Tail-Aware Generative Recommender Systems
HypRQ-VAE:面向长尾感知生成式推荐的双曲语义 ID 索引
🧭 生成式推荐 · 语义ID · 双曲空间 ★ 深度解读
Virginia Tech · Amazon · Meta AI · Google · Dartmouth College
首次将双曲空间残差量化 VAE 用于生成式推荐语义 ID,显著提升长尾物品推荐
📌 工作参考价值(4 点)
- 语义 ID 生成可把 RQ-VAE 从欧氏空间换成 Poincaré ball + Möbius 减法/加法,无需额外正则即可让 codebook 使用更均衡,对尾部、新品 item 更友好。
- 长尾收益明确:按 H20/T80 划分评估,Hit@10 在尾部提升 17.24%-52.71%,推荐列表尾部占比提升约 8-10 个百分点;建议上线前对尾部流量单独做指标拆分。
- 碰撞处理可直接复用:对冲突 item 构建距离张量,从最后一层向上做 nearest-available token 分配,比额外 ID 或正则更干净,适合电商大目录 item 压缩。
- 工程配置可参照:Stage1 用 Adam lr=1e-3、L=4、K=256;Stage2 用 LLaMA2-7B + LoRA r=8/alpha=32/dropout=0.05,配合 Trie 约束解码 beam=20。